IT之家
09-02 07:00
1.5TB 压到 214GB:腾讯混元 Hy4 preview 轻量版发布开源,异构设备可联合推理
📌 一句话:腾讯将1.5TB大模型压缩至214GB并开源,首次实现手机与电脑联合推理,让AI大模型真正走向端侧。
💡 3个要点
体积革命:模型从1.5TB压缩到214GB,体积缩小至原来的七分之一,手机存储不再是瓶颈
异构协同:支持手机、电脑等不同设备联合推理,算力可灵活调配,不必依赖单一设备
开源普惠:开发者可自由获取、部署和优化,打破AI能力被大厂云端垄断的局面
📖 背景
大模型因体积庞大,传统上只能部署在云端服务器,用户使用必须联网且受制于算力成本。
💭 点评
腾讯这一步踩中了要害——AI的真正普及不在云端而在终端。当模型能在口袋里跑起来,才是真正的技术平权。但开源只是开始,后续社区能否持续优化、生态能否形成,才是决定这一努力能否改变游戏规则的关键。
📖 原文链接
点击阅读原文 →